简介
这是一篇发表于2017年的论文，也是第一次尝试将生成对抗网络应用到图表示学习上的工作。之前的方法主要是将不同的结构性质编码进表示中，比如邻居连接模式，全局结构角色相似性和其他高阶相似性。但作者认为除了捕捉网络结构性质的方法，大多数方法都因为缺少额外的约束而导致不能加强表示的鲁棒性。针对此问题，作者提出对抗网络嵌入（ANE）框架，其充分利用对抗学习原则来正则化表示学习。该框架包含两个部分，一个结构保存成分和一个对抗学习成分。前一个成分旨在捕捉网络结构性质，而后一个成分旨在通过令隐表示的后验分布匹配一个先验分布来学得更鲁棒的表示。
方法
对于结构保存，作者提出一种归纳式(inductive)的DeepWalk（IDW）。IDW依然使用随机游走来获取节点的上下文节点，优化同样的损失函数，但其使用一个参数化的函数$G(\cdot)$来产生嵌入向量。
对于正则化，对抗学习成分包括两个部分，一个生成器$G(\cdot)$和一个判别器$D(\cdot)$。对抗学习部分作为一个正则器，旨在学习到更稳定和鲁棒的特征提取器，这是通过对抗学习在嵌入向量上强加一个先验分布得到的。具体来说，将生成器产生的嵌入当作负样本，把从先验分布里采样得到的向量作为正样本。这样对抗学习就迫使生成的嵌入拟合该先验分布。值得注意的是，对抗学习成分的生成器和结构保存的生成器是同一个，在训练阶段时，交替更新两个部分。
算法框架如下：
优化
结构保存成分的损失函数同DeepWalk一样，如下所示：
对抗学习判别器的损失如下：
对抗学习生成器的损失如下：
思考
这篇早期论文思想比较简单。